Le débat sur les risques de l’intelligence artificielle vient de connaître un nouvel épisode, avec des propos venus de l’intérieur même du secteur. Jacob Coxon, chercheur chez Anthropic et ancien d’OpenAI, a annoncé sa démission mardi sur X. Dans son message, il accuse les deux entreprises de ne pas agir de manière responsable.
Une inquiétude exprimée au grand jour
Selon lui, les laboratoires les plus avancés foncent vers des systèmes capables de s’améliorer eux-mêmes, avec des conséquences encore difficiles à mesurer. Coxon estime que ces futurs modèles pourraient devenir supérieurs aux humains dans plusieurs domaines sensibles, comme le piratage informatique, la recherche scientifique ou l’acquisition de ressources.
Son message a rapidement fait réagir Evan Hubinger, responsable de recherche sur l’alignement chez Anthropic. Ce domaine vise à faire en sorte que les systèmes d’IA restent conformes aux valeurs et aux intentions humaines. Hubinger a confirmé partager une partie de cette inquiétude. Il estime qu’il existe plus de 10 % de risque que l’IA puisse causer la disparition de l’humanité d’ici dix ans. Gloups.
Il nuance toutefois son propos : les modèles actuels présenteraient un risque faible. Ce qui l’inquiète surtout, c’est l’arrivée possible d’une superintelligence capable de participer elle-même à sa propre amélioration. Sur ce point, Hubinger reconnaît qu’Anthropic n’a pas encore de solution claire.
Ces déclarations arrivent alors que les grandes entreprises de l’IA avancent vite, très vite, tout en levant des sommes considérables. OpenAI et Anthropic se dirigeraient aussi vers des introductions en Bourse très attendues, ce qui ajoute une bonne dose de pression économique à un sujet déjà sensible.
Les inquiétudes ne sortent pas de nulle part. Ces derniers mois, plusieurs incidents ont montré que des agents IA pouvaient déboucher sur des actions problématiques, notamment dans le domaine informatique. OpenAI, Anthropic et Meta ont tous signalé des cas de piratage impliquant leurs outils. En juillet, un modèle d’OpenAI a même compromis Hugging Face, une plateforme très utilisée par les développeurs.
De son côté, Anthropic a reconnu dans un rapport de sécurité publié en août que certains risques restaient faibles, mais difficiles à évaluer avec certitude. L’entreprise dit observer des signes d’accélération dans les capacités des modèles.
Autre point sensible : Anthropic aurait tout simplement refusé de transmettre son dernier modèle à l’AI Safety Institute britannique, chargé d’évaluer les risques liés à l’IA. L’entreprise n’a pas commenté. Le gouvernement britannique assure seulement poursuivre sa collaboration avec l’industrie pour rendre ces technologies plus sûres. Pas sûr que ce soit suffisant pour échapper à l’apocalypse IA…
